Lý Tồn Úc sinh ngày 22 tháng 10 năm Ất Tị (2 tháng 12 năm 885), tại Tấn Dương cung (tức Thái Nguyên), trong thời gian trị vì của Đường Chiêu Tông. cha ông là Hà Đông[chú 1] tiết độ sứ Lý Khắc Dụng- một quân phiệt lớn mạnh vào cuối thời Đường. Mẹ ông là Tào thị- thiếp của Lý Khắc Dụng. Ông là con trai ruột sinh sớm nhất của Lý Khắc Dụng.[5]

Năm 895, khi Lý Khắc Dụng đang tiến hành một chiến dịch (cuối cùng thành công) chống lại các quân phiệt vừa tiến hành đe dọa quân sự đối với Đường Chiêu Tông là Tĩnh Nan[chú 2] tiết độ sứ Vương Hành Du, Phượng Tường[chú 3] tiết độ sứ Lý Mậu Trinh, và Trấn Quốc[chú 4] tiết độ sứ Hàn Kiến, Lý Khắc Dụng sai Lý Tồn Úc đến hành tại nhằm thể hiện sự thần phục với hoàng đế. Khi thấy Lý Tồn Úc, Đường Chiêu Tông vỗ về ông và nói: "Nhi tương lai là rường cột của đất nước, hãy tận trung hiếu với nhà ta."[6] Sau khi Lý Khắc Dụng đánh bại ba quân biệt[chú 5], Lý Tồn Úc được trao cho chức vụ danh dự 'kiểm giáo tư không', Thấp châu[chú 6] thứ sử, và sau đó lần lượt giữ chức thứ sử của Phần châu và Tấn châu[chú 7], song đều là diêu lĩnh, tức không đến địa phương nhậm chức mà chỉ là chức vụ danh dự. Ông được thuật lại là thông hiểu âm nhạc, và thường ca vũ trước mặt cha. Ông học "Xuân Thu" từ năm 13 tuổi, có được sự hiểu biết sơ đẳng. Khi lớn hơn, ông trở thành người giỏi cưỡi ngựa bắn cung.[5]

Lý Tồn Úc được thuật lại là người thông minh, dũng lược ngay từ khi còn trẻ tuổi. Khoảng năm 902, trông thấy cảnh cha khốn khổ do nhiều năm thua trận trước Tuyên Vũ[chú 8] tiết độ sứ Chu Toàn Trung, ông chỉ ra rằng việc cha tỏ rõ vẻ đau khổ chỉ khiến cho quân dân lo lắng theo, và tốt hơn là ẩn mình và chờ thời cơ Chu Toàn Trung mắc sai lầm để tiến hành phản công, cho phép quân dân nghỉ ngơi trong một thời gian. Ông cũng nói với Lý Khắc Dụng rằng mình nhận thấy vấn đề khi các binh sĩ người Sa Đà cướp bóc của quần chúng, chỉ ra rằng nếu cha không kiềm chế hành vi này thì các binh sĩ sẽ phân tán và không thể tập hợp lại.[7]

Năm 906, Chu Toàn Trung tiến hành chiến dịch chống lại một quân phiệt khác là Lô Long[chú 9] tiết độ sứ Lưu Nhân Cung, và bao vây con của Lưu Nhân Cung là Nghĩa Xương[chú 10] tiết độ sứ Lưu Thủ Văn tại thành Thương châu. Mặc dù trước đó phản lại Lý Khắc Dụng và trở thành quân phiệt độc lập, Lưu Nhân Cung quyết định cầu viện Lý Khắc Dụng. Lý Khắc Dụng ôm hận trong lòng nên từ chối cứu viện Lưu Nhân Cung, song Lý Tồn Úc nói rằng Chu Toàn Trung lúc này đã quá hùng mạnh và được các quân phiệt khác quy phục, Hà Đông và Lô Long là hai trong vài đối thủ còn lại của Chu Toàn Trung. Lý Tồn Úc chủ trương cứu viện Lưu Nhân Cung để ngăn việc Chu Toàn Trung khoách trương, người trong thiên hạ sẽ nhớ đến đức của Lý Khắc Dụng. Lý Khắc Dụng nghe theo ý của Lý Tồn Úc, đề nghị Lưu Nhân Cung phái quân đến để liên hiệp tiến công Chiêu Nghĩa[chú 11] của Hậu Lương để mở một mặt trận thứ hai, Lưu Nhân Cung chấp thuận. Sau đó, Chiêu Nghĩa tiết độ sứ Đinh Hội đầu hàng Lý Khắc Dụng, Chu Toàn Trung buộc phải từ bỏ chiến dịch chống lại Lưu Nhân Cung.[8]

Năm 907, Chu Toàn Trung buộc người kế vị Đường Chiêu Tông là Đường Ai Đế phải trao lại hoàng vị cho ông ta, kết thúc triều Đường và khởi đầu triều Hậu Lương. Chu Toàn Trung tuyên bố là quân chủ của toàn bộ lãnh thổ Đường cũ, song Lý Khắc Dụng, Lý Mậu Trinh, Hoài Nam[chú 12] tiết độ sứ Dương Ác, Tây Xuyên[chú 13] tiết độ sứ Vương Kiến từ chối công nhận Chu Toàn Trung là hoàng đế, lãnh địa của họ trên trở thành các nước tương ứng là Tấn, Kỳ, Hoằng Nông và Tiền Thục. Sau đó, Chu Toàn Trung phái bộ tướng là Khang Hoài Trinh (康懷貞) đem 8 vạn quân đến đánh Lộ châu của Lý Tự Chiêu (李嗣昭)- người được Lý Khắc Dụng phong làm Chiêu Nghĩa tiết độ sứ. Khang Hoài Trinh cho xây thành đào hào quanh Lộ châu để cắt đứt liên lạc giữa bên ngoài với thành, quân cứu viện do Lý Khắc Dụng phái đến không thể giải vây cho Lộ châu. Đầu năm 908, Lý Khắc Dụng lâm bệnh nặng, và giao phó người thừa kế Lý Tồn Úc cho em là Nội ngoại Phiên Hán đô tri binh mã sứ-Chấn Vũ[chú 14] tiết độ sứ Lý Khắc Ninh, Giám quân Trường Thừa Nghiệp (張承業), Đại tướng Lý Tồn Chương (李存璋), Ngô Củng (吳珙), Chưởng thư ký Lô Chất (盧質). Lý Khắc Dụng nhiều lần nói với Lý Tồn Úc rằng cần lập tức cứu nguy Lý Tự Chiêu sau khi ông ta qua đời. Ngày Tân Mão tháng 1 năm Mậu Thìn (23 tháng 2 năm 908), Lý Khắc Dụng qua đời, Lý Tồn Úc kế nhiệm.[3]